Librarian Agents: Training LLMs to Curate Long-Context Workspaces that Anticipate Future Queries
图书管理员智能体:训练LLM预构建预见未来查询的长上下文工作区
🧭 Agent 预构建长上下文记忆工作区 ★ 深度解读
Stanford University · Carnegie Mellon University
将文档语料预构造成分层文件系统工作区,并用RL直接优化下游答题准确率,BrowseComp-Plus提升33个百分点
📌 工作参考价值(4 点)
- 在电商/客服/导购 Agent 中,可将商品库、类目树、活动文档、评论语料预先构建成分层合成文件系统(如类目索引、跨品对比表、活动时间线),回答 agent 走短路径文件即可,不必每次实时跨文档检索;用 RL 直接以“下游转化/回答准确率”作为奖励训练 builder 策略,而不是手工定义抽取规则。
- 利用文件系统作为 LLM 友好的外部记忆接口,比知识图谱更灵活:CreateFile/MergeFiles/Delete/Stop 这四类动作足够构建层级,同时显式保留 provenance/原始文档链接作为 fallback,防止合成摘要丢失关键细节;电商场景中 needle-in-haystack(如某单品具体参数)可回退到原文。
- 工程上可借鉴“预构建一次 + 多次查询”的成本摊销:把昂贵跨文档推理前置,回答阶段只读合成文件;文中给出 break-even 分析(约31个查询/语料时 token 成本优于 base builder),类似商品知识库高频问答适合。
- 密集奖励设计可复用:每 8 步探测 answerability 变化作为密集信号 + 终局正确性,等价于稀疏奖励但训练更稳定;multi-turn GRPO 可用于训练其他文档组织策略。